كان إمام عصره بلا مدافعة ، وأقام ببغداد مدة ، وتفقه بها وتعلم ، وناظر الخصوم ، وله قصة في مسألة توريث الأنبياء مع المرتضى مقدم الشيعة في قوله صلى اللَّه عليه وسلم : « لا نورث ، ما تركنا صدقة » ، فان أبا على تمسك بهذا الحديث ، فاعترض عليه المرتضى الموسوي وقال : كيف تقول إعراب « صدقة » بالرفع أو النصب ؟ إن قلت بالرفع فليس كذلك ، وإن قلت بالنصب فهو حجتي ، لأن النبي صلى اللَّه عليه وسلم قال « ما تركنا صدقة » يعنى لم نتركه صدقة ! فدخل أبو علي وقال : فيما ذهبت إليه إبطال فائدة الحديث ، فان أحدا لا يخفى عليه أن الإنسان إذا مات يرثه قومه وأقرب الناس إليه ، ولا يكون صدقة ، ولا يقع فيه الإشكال ، فبيّن النبي صلى اللَّه عليه وسلم في هذا الحديث أن ما تركه صدقة ، بخلاف سائر الناس . سمع أبو علي ببخارا أبا بكر محمد بن الفضل الإمام وأبا عمرو محمد بن محمد بن صابر بن كاتب وأبا سعيد الخليل بن أحمد السجزي ، وببغداد أبا الفضل عبيد اللَّه بن عبد الرحمن الزهري وأبا الحسن علي بن عمر بن محمد الحربي وأبا عمرو عثمان بن محمد بن القاسم الأدمي ، وبالكوفة أبا عبد اللَّه محمد بن عبد اللَّه بن الحسين الهروي ، وبمكة أبا الحسن أحمد ابن إبراهيم بن فراس العبقسيّ ، وبهمذان أبا بكر أحمد بن علي بن لآل الإمام ، وبساوة أبا بكر محمد بن الحسن بن علي الساوي ، وبالري أبا القاسم جعفر بن عبد اللَّه بن يعقوب بن فناكى الرازيّ ، وبمرو أبا على محمد ابن عمر بن سيبويه المروزي وطبقتهم ، وروى عنه جماعة كثيرة ، وظهر له أصحاب وتلامذة ، وأخذوا عنه العلم ، وآخر من حدث عنه ابن بنته